Tào Phi sinh ở huyện Tiêu, nước Bái, thuộc Dự châu (hiện nay là huyện Hào, Bạc Châu, tỉnh An Huy), là con thứ ba (trước có tỷ tỷ, huynh Tào Ngang là con của Lưu thị) của Tào Tháo mẹ là Biện phu nhân, kế thất của Tào Tháo, xuất thân từ nhà xướng kỹ. Theo Ngụy thư, Tào Phi từ nhỏ văn võ song toàn, 8 tuổi có thể đặt bút viết thơ, giỏi kị xạ, múa kiếm, thông hiểu Bách gia chư tử.

Năm Kiến An thứ 2 (197), huynh trưởng Tào Ngang (曹昂) theo Tào Tháo đi đánh Uyển Thành, bị chết trận. Đinh phu nhân là chính thất của họ Tào, vì chuyện này mà đòi li dị với Tào Tháo. Do đó, Biện phu nhân trở thành kế thất, vì thế Tào Phi cũng trở thành đích trưởng tử của Tào Tháo.

Năm Kiến An thứ 16 (211), Tào Phi giữ chức Ngũ quan Trung lang tướng (五官中郎將), tức Phó thừa tướng nhà Hán. Trong số anh em của mình, Tào Phi là người sắc sảo nhất. Thay vì dùi mài kinh sử hay thao luyện quân binh, Tào Phi thường có mặt trong triều với các quan chức để tranh thủ sự ủng hộ của các quan và tham gia vào việc quân sự cùng cha. Tào Phi có nhiều điều đối xử và giám sát khắt khe với các anh em trong nhà. Nhiều nhà sử học cho rằng sở dĩ như vậy vì ông ghen tài văn chương với Tào Thực và tài quân sự với Tào Chương. Có thuyết nói ông đã hạ độc giết Tào Chương, và ép Tào Thực phải làm thơ trong vòng 7 bước chân về đề tài huynh đệ, và trong thơ không được có 2 từ huynh đệ, nếu không được sẽ xử chết.

Năm Kiến An thứ 22 (217), sau khi đánh bại em trai Tào Thực trong việc tranh giành vị trí thừa kế, Tào Phi được chính thức phong làm Vương Thế tử, trở thành người kế thừa của Tào Tháo.